Как федералното правителство може да овладее ИИ в областта на правоприлагането

Едно от най-обнадеждаващите оферти, включващи полицейско наблюдаване, се появи неотдавна от изненадващо място — Федералната работа за ръководство и бюджет. Службата, която следи осъществяването на политиките на президента, предложи извънредно нужните ограничавания върху потреблението на изкуствен интелект от федералните организации, в това число правоприлагащите органи.

Работата на службата е похвално, само че минусите в препоръчаните от него насоки за организациите въпреки всичко биха могли да създадат хората уязвими на щета. Най-важната измежду тях е наредба, която би разрешила на висши длъжностни лица да търсят освобождение, като аргументират, че рестриктивните мерки биха попречили на правоприлагането. Вместо това от тези правоприлагащи органи следва да се изисква да дават проверими доказателства, че A.I. принадлежности, които те или техните снабдители употребяват, няма да причинят щета, да влошат дискриминирането или да нарушат правата на хората.

Като откриватели на алгоритмични принадлежности, полиция и конституционно право, сме очевидци на предвидимото и предотвратими вреди от потреблението на нововъзникващи технологии от правоприлагащите органи. Те включват подправени арести и полицейски конфискации, в това число семейство, държано под прицела, откакто хората са били неправилно упрекнати в закононарушения заради безотговорното потребление на ръководени от AI технологии, в това число различаване на лица и автоматизирани четци на регистрационни номера.

Разгледайте случаите на Порча Уудръф, Майкъл Оливър и Робърт Джулиан-Борчак Уилямс. Всички са задържани сред 2019 година и 2023 година, откакто са били неправилно разпознати от технологията за лицево различаване. Тези арести имаха незаличими последствия: госпожа Уудръф беше бременна в осмия месец, когато беше лъжливо упрекната в кражба на кола и грабеж; Г-н Уилямс беше задържан пред очите на жена си и двете си дребни дъщери, когато спря на алеята си от работа. В резултат на това господин Оливър загуби работата си.

Проучване, написано в съавторство с един от нас (д-р Буоламвини), откри, че три комерсиални стратегии за разбор на лицето от огромни софтуерни компании демонстрират пристрастия както към вида кожа, по този начин и към пола. Колкото по-тъмна е кожата, толкоз по-често пораждат грешките. Въпросите по отношение на справедливостта и пристрастието не престават да съществуват по отношение на потреблението на този тип технологии.

Грешките се случват, тъй като правоприлагащите органи внедряват нововъзникващи технологии без бистрота или единодушие на общността, че те въобще би трябвало да се употребяват, с малко или никакво отчитане на следствията, незадоволително образование и несъответстващи защитни огради. Често наборите от данни, които ръководят технологиите, са инфектирани с неточности и расови пристрастия. Обикновено чиновниците или организациите не са изправени пред последици за подправени арести, което усилва вероятността те да продължат.

Указанията на Службата за ръководство и бюджет, които в този момент се завършват след интервал на обществен коментар, ще се ползва за технологии за правоприлагане като лицево различаване, четци на регистрационни табели, предсказуеми полицейски принадлежности, разкриване на огнестрелни изстрели, наблюдаване на обществени медии и други Той дефинира критерии за A.I. технологии, които без защитни ограничения биха могли да изложат на риск сигурността или благосъстоянието на хората или да нарушат техните права. Ако тези препоръчани „ минимални практики “ не бъдат изпълнени, технологиите, които не дават отговор на условията, ще бъдат неразрешени след идващия 1 август.

Ето акцентите на предлагането: Агенциите би трябвало да бъдат транспарантни и дават обществен лист на случаите, в които A.I. беше употребен. Цената и изгодата от тези технологии би трябвало да бъдат оценени, основание, което въобще липсваше. Дори в случай че технологията обезпечава действителни изгоди, рисковете за обособените лица — изключително в маргинализираните общности — би трябвало да бъдат разпознати и понижени. Ако рисковете са прекомерно високи, технологията може да не се употребява. Въздействието на ръководените от AI технологии би трябвало да бъде тествано в действителния свят и непрестанно да се следи. Агенциите ще би трябвало да изискат публичен коментар, преди да употребяват технологиите, в това число от засегнатите общности.

Предложените условия са съществени. Те трябваше да са налице, преди органите на реда да стартират да употребяват тези нововъзникващи технологии. Като се има поради бързото приемане на тези принадлежности, без доказателства за правдивост или резултатност и с незадоволително внимание за попречване на неточности, ние изцяло чакаме някои A.I. технологиите няма да дават отговор на препоръчаните стандарти и потреблението им ще бъде неразрешено заради противоречие.

употребявани за опрощение на полицията от правна отбрана за цивилен права и против дискриминация. „ Националната сигурност “ изисква по-ясно определение, с цел да се предотврати позоваването на изключението без основателна причина или контрол.

Накрая, нищо в това предложение не се ползва отвън федералните държавни организации. ФБР, Администрацията по транспортна сигурност и други федерални организации нападателно възприемат лицевото различаване и други биометрични технологии, които могат да разпознават човеци по техните неповторими физически характерности. Но същото важи и за държавните и локалните организации, които не попадат в тези насоки. Федералното държавно управление постоянно предлага федерално финансиране като морков, с цел да завоюва спазването на федералните правила от държавните и локалните организации. Трябва да направи същото и тук.

Джой Буоламвини е създател на Алгоритмичната лига на справедливостта, която се стреми да увеличи осведомеността за евентуалните вреди от изкуствения разсъдък, и създател на „ Разобличаване на изкуствения разсъдък: Моята задача да пазя това, което е човешко в света на машините. Бари Фридман е професор в Юридическия факултет на Нюйоркския университет и факултетен шеф на полицейския план. Той е създател на „ Неоправдано: Полиция без позволение. “

до редактора. Бихме желали да чуем какво мислите за тази или някоя от нашите публикации. Ето няколко. А ето и нашия имейл:.

Следвайте секцията за мнение на New York Times по отношение на,, и.